Những năm đầu tiên / Stuttgart

Szalai khởi nghiệp bóng đá tại quê nhà Budapest, anh thi đấu cho các đội Budapest Honvéd FC và Újpest FC. Năm 2004, anh chuyển sang Đức để phát triển sự nghiệp, dành hai năm tập luyện tại học viện trẻ của VfB Stuttgart.

Szalai có trận ra mắt chuyên nghiệp ở mùa bóng 2006–07 khi chơi cho đội dự bị tại giải Regionalliga Süd.

Real Madrid Castilla

Tháng 8 năm 2007, Szalai chuyển tới Real Madrid Castilla, tức đội dự bị của câu lạc bộ Real Madrid với mức phí khoảng 500.000 euro.[2]

Ở mùa bóng thứ hai tại Segunda División B – hạng đấu duy nhất mà anh ra sân trong thời gian chơi bóng ở Tây Ban Nha – anh ghi 16 bàn thắng sau 37 trận, nhưng đội bóng chỉ xếp thứ 6, qua đó bỏ lỡ cơ hội dự loạt trận play-off.

Mainz

Ngày 9 tháng 1 năm 2010, Real Madrid đem Szalai cho câu lạc bộ 1. FSV Mainz 05 của Đức mượn đến tháng 6.[3] Anh có trận ra mắt giải Bundesliga 7 hôm sau, anh vào sân từ ghế dự bị ở phút thứ 63trong trận thua 2–4 trên sân khách trước Bayer 04 Leverkusen.[4]

Szalai ghi bàn thắng đầu tiên cho Mainz trong trận thắng 1–0 trên sân nhà trước Borussia Dortmund vào ngày 10 tháng 4 năm 2010.[5] Anh kiến tạo bàn thứ hai vào lưới FC Bayern Munich vào ngày 25 tháng 9 năm trong chiến thắng 2–1 trên sân khách, với một cú sút uy lực vào góc cao khung thành, tạo nên chuỗi 6 trận thắng liên tiếp của câu lạc bộ vùng Rhineland-Palatinate ở mùa giải ấy, về sau kéo dài đến 7 trận;[6] vào ngày 29 tháng 1 năm 2011, tại 1. FC Kaiserslautern, cầu thủ này gặp chấn thương đầu gối – dây chằng chéo – buộc anh phải nghỉ thi đấu cho đến hết mùa giải.[7]

Ngày 22 tháng 1 năm 2012, Szalai trở lại thi đấu cùng Mainz sau chấn thương, anh chơi nửa hiệp hai của trận thua 2–3 tại Leverkusen.[8] Ngày 1 tháng 8 anh ký hợp đồng gia hạn với câu lạc bộ với thời hạn kéo dài đến tháng 6 năm 2015[9][10] và vào ngày 27 tháng 10, anh lập cú hat-trick đầu tiên cho đội bóng trong trận thắng 3–0 trên sân nhà trước TSG 1899 Hoffenheim.[11]

Ngày 10 tháng 2 năm 2013, Szalai ghi bàn thắng thứ 12 tại giải vô địch Đức 2012–13 gặp FC Augsburg, qua đó trở thành chân sút người Hungary thi đấu hiệu quả nhất trong một mùa giải ở hạng đấu cao nhất của Đức, vượt qua cả Lajos Détári và Vasile Miriuță - người đã kiến tạo 11 bàn lần lượt cho Eintracht Frankfurt ở mùa 1987–88 và FC Energie Cottbus ở mùa 2000–01.[12] Ngày 15 tháng 4, Sky Sports đăng một bài viết về cầu thủ mà Horst Heldt, huấn luyện viên của FC Schalke 04 được cho là thể hiện sự quan tâm đến việc ký hợp đồng với anh, trong lúc chờ đội bóng giành vé dự UEFA Champions League để đủ tiền thực hiện vụ chuyển nhượng.[13]